HBase RegionServer挂掉问题分析 |
您所在的位置：网站首页 › region server自动挂掉 › HBase RegionServer挂掉问题分析 |
|
HBase在使用中会遇到非常多的问题，最为常见的就是HBase regionserver挂掉（此文中简称regionserver为RS）， 而RS挂掉的原因各不相同。在本文中对遇到过的HBase RS挂掉的情况做一个简单的整理。 HBase集群预留内存不足现象：HBase RS在起来1-2min后马上挂掉 日志为如下日志段的重复： Mon Aug 6 10:23:54 CST 2018 Starting regionserver on node2.rosa.com core file size (blocks, -c) 0 data seg size (kbytes, -d) unlimited scheduling priority (-e) 0 file size (blocks, -f) unlimited pending signals (-i) 127902 max locked memory (kbytes, -l) 64 max memory size (kbytes, -m) unlimited open files (-n) 65536 pipe size (512 bytes, -p) 8 POSIX message queues (bytes, -q) 819200 real-time priority (-r) 0 stack size (kbytes, -s) 8192 cpu time (seconds, -t) unlimited max user processes (-u) 2048 virtual memory (kbytes, -v) unlimited file locks (-x) unlimited分析：此处可知所做的操作只是HBase RS的假启动，前端看上去好像是启动成功了，但是实际上并没有真正启动。 解决思路：适当减小HBase RegionServer Maximum Memory对应的值。 HBase集群时钟不同步 现象：HBase RS运行一段时间后挂掉 日志： ERROR [B.defaultRpcServer.handler=4,queue=1,port=16000] master.MasterRpcServices: Region server slave1,16020,1494163890158 reported a fatal error: ABORTING region server slave1,16020,1494163890158: Unhandled: org.apache.hadoop.HBase.ClockOutOfSyncException: Server slave1,16020,1494163890158 has been rejected; Reported time is too far out of sync with master.Time difference of 52782ms > max allowed of 30000ms分析：集群中的不同机器时间差较大，HBase集群对时钟同步要求较高。 解决思路： 查看集群中/etc/ntp.conf的server配置是否合理， 利用service ntpd status来查看ntp的状态 利用service ntpd start启动ntp 利用ntpdate –u node1在三个节点立即进行时钟同步 利用chkconfig ntpd on设置所有节点ntp服务开机自启动。HBase集群zk的连接数设置过少 现象：RS运行一段时间后挂掉 日志： ERROR [regionserver/node1/101.12.38.119:16020] zookeeper.ZooKeeperWatcher: regionserver:16020-0x3651eb7c95b0006, quorum=node1:2181,node2:2181,node3:2181, baseZNode=/HBase-unsecure Received unexpected KeeperException, re-throwing exceptionorg.apache.zookeeper.KeeperException$SessionExpiredException: KeeperErrorCode = Session expired for /HBase-unsecure/replication/rs/node1,16020,1533819219139查看zookeeper对应时间点的日志： 2018-08-14 10:31:23,855 - WARN [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60 2018-08-14 10:31:23,935 - WARN [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60 2018-08-14 10:31:24,015 - WARN [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60 2018-08-14 10:31:24,037 - WARN [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60 2018-08-14 10:31:24,122 - WARN [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60 2018-08-14 10:31:24,152 - WARN [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too分析：zookeeper的连接数设置过少，在HBase的高并发业务时会出现如上问题 解决思路：在zookeeper的配置文件zoo.cfg中添加如下自定义配置(该配置在hbase中默认值为60)： 添加：maxClientCnxns=600，重启zk，启动HBase。 HBase无法写入（无法落地存到hdfs）：日志： java.io.IOException: Failed to replace a bad datanode on the existing pipeline due to no more good datanodes being available to try分析：无法写入，3个datanode，备份数量设置的是3。在写操作时，它会在pipeline中写3个机器。默认replace-datanode-on-failure.policy是DEFAULT,如果系统中的datanode大于等于3，它会找另外一个datanode来拷贝。目前机器只有3台，因此只要一台datanode出问题，就一直无法写入成功。 处理方法： 修改hdfs-site.xml文件，添加或者修改如下两项： dfs.client.block.write.replace-datanode-on-failure.enable true dfs.client.block.write.replace-datanode-on-failure.policy NEVER对于dfs.client.block.write.replace-datanode-on-failure.enable，客户端在写失败的时候，是否使用更换策略，默认是true没有问题 对于，dfs.client.block.write.replace-datanode-on-failure.policy，default在3个或以上备份的时候，是会尝试更换结点尝试写入datanode。而在两个备份的时候，不更换datanode，直接开始写。对于3个datanode的集群，只要一个节点没响应写入就会出问题，所以可以关掉。 HBase读数据超时 日志： ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: xxx:50010:DataXceiver error processing WRITE_BLOCK operation src: /xxx:52827 dst: /xxx:50010 java.net.SocketTimeoutException: 60000 millis timeout while waiting for channel to be ready for read. ch : java.nio.channels.SocketChannel[connected local=/xxx:50010 remote=/xxx:52827]分析：读数据超时，出现以上错误是因为datanode的服务线程连接数都被占用，导致等待超时。 处理方法： datanode的资源情况适当增加的服务线程数：在hdfs-site.xml增加自定义配置文件里面新增或修改dfs.datanode.handler.count，默认是10，适当加大。 增加客户端的超时时间dfs.client.socket-timeout，默认是60000ms。 增大HBase配置项中的zookeeper session timeout数值。 增加DataNode max data transfer threads至合理数值。HBase GC优化 报错如下： 分析： 从以上日志可以看出，session超时，其实服务是好的，只是被zk认为死了，所以rs自己也就把自己kill了。 详细一点来说，一般来说RegionServer的堆内存越大越好，但是因为垃圾回收的缘故，内存大了之后，相应的FullGC时间也会线性增加。FullGC有时可能达到好几分钟，这个阶段会停止响应任何请求，相当于所有线程挂起，这种暂停又叫做Stop-The-World(STW)，FullGc的对HBase造成严重后果比较严重： 在Zookeeper检测RegionServer心跳包的时候，RegionServer正在FullGc无法回应，而如果超过阀值等待时间会被标记为宕机，这时候会将该RegionServer上的数据向其他RegionServer迁移，并且该RegionServer FullGc结束后发现自己被宕机了，为了防止脑裂，会停止自己（RegionServer自杀）。 值得注意的是此处的报错，仍然不是深层次的原因，继续查看日志： 2018-08-07 12:27:39,919 WARN [regionserver/node1/210.26.111.41:16020] util.Sleeper: We slept 39000ms instead of 3000ms, this is likely due to a long garbage collecting pause and it's usually bad, see http://HBase.apache.org/book.html#trouble.rs.runtime.zkexpired 2018-08-07 12:27:39,920 INFO [node1,16020,1533607130571_ChoreService_1] regionserver.HRegionServer$CompactionChecker: Chore: CompactionChecker missed its start time 2018-08-07 12:27:39,920 INFO [main-SendThread(node2:2181)] zookeeper.ClientCnxn: Client session timed out, have not heard from server in 50201ms for sessionid 0x264ea4df477b894, closing socket connection and attempting reconnect 2018-08-07 12:27:39,920 WARN [JvmPauseMonitor] util.JvmPauseMonitor: Detected pause in JVM or host machine (eg GC): pause of approximately 37173ms GC pool 'ParNew' had collection(s): count=1 time=207ms 由以上日志可见，存在Full GC的问题， 上文处的超时也由FULL GC引起。这种情况下，客户端发送的请求会受到阻塞，导致客户端无法正常写数据到HBase。
修改： HBase写优化方面： 做HBase简单的写优化：增加HBase的write buffer至55%，减小HBase的read buffer至25%（write buffer与read buffer的和不能超过80%） 增加HBase的regionserver handler数至最大。 HBase表的预分区修改Zk方面： 官网建议将hbase-site.xml中的超时修改至120s。很多场景下会将zookeeper的心跳检测阀值调大，个人认为不是根本的解决办法。 zookeeper.session.timeout 120000 hbase.zookeeper.property.tickTime 6000做完这些操作后现场未恢复正常，建议进行HBase的jvm调优如下： 会产生FULL GC的原因：老年代回收慢（这里需要结合gc日志进行定位，在本文中gc日志没有po出来）。
1.HBase堆内存 系统可以使用export HBASE_HEAPSIZE=16384，16G的内存，下是官网的一段话： Thus, ~20-24Gb or less memory dedicated to one RS is recommended 2.GC的参数设置 HBASE jvm优化 export HBASE_OPTS="$HBASE_OPTS -XX:+UseCompressedOops -XX:+UseParNewGC -XX:+UseConcMarkSweepGC -XX:+CMSClassUnloadingEnabled -XX:+UseCMSCompactAtFullCollection -XX:CMSFullGCsBeforeCompaction=0 -XX:+CMSParallelRemarkEnabled -XX:CMSInitiatingOccupancyFraction=75 -XX:SoftRefLRUPolicyMSPerMB=0"具体参数含义如下： /* 压缩指针，解决内存占用 */ -XX:+UseCompressedOops /*设置年轻代为并行收集*/ -XX:+UseParNewGC /* 使用CMS内存收集*/ -XX:+UseConcMarkSweepG /*相对于并行收集器，CMS收集器默认不会对永久代进行垃圾回收。如果希望对永久代进行垃圾回收，可用设置标志-XX:+CMSClassUnloadingEnabled。 在早期JVM版本中，要求设置额外的标志-XX:+CMSPermGenSweepingEnabled。注意，即使没有设置这个标志，一旦永久代耗尽空 间也会尝试进行垃圾回收， 但是收集不会是并行的，而再一次进行Full GC。*/ -XX:+CMSClassUnloadingEnabled /*使用并发收集器时,开启对年老代的压缩.*/ -XX:+UseCMSCompactAtFullCollection /*由于并发收集器不对内存空间进行压缩,整理,所以运行一段时间以后会产生”碎片”,使得运行效率降低.此值设置运行多少次GC以后对内存空间进行压缩,整理.*/ -XX:CMSFullGCsBeforeCompaction /*降低标记停顿*/ -XX:+CMSParallelRemarkEnabled /*使用cms作为垃圾回收使用75％后开始CMS收集*/ -XX:CMSInitiatingOccupancyFraction=75 /*每兆堆空闲空间中SoftReference的存活时间*/ -XX:SoftRefLRUPolicyMSPerMB参考：HBase JVM优化https://blog.csdn.net/wuwenxiang91322/article/details/52279529 |
今日新闻 |
推荐新闻 |
| CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |